Vai trò đầu tiên của Costa trong một chính phủ xã hội là Bộ trưởng Quốc phòng dưới thời Thủ tướng António Guterres từ năm 1997 đến năm 1999. Ông là Bộ trưởng Tư pháp từ năm 1999 đến 2002.

Costa là thành viên của Nghị viện châu Âu cho Đảng Xã hội Chủ nghĩa (PES), đứng đầu danh sách các cuộc bầu cử ở Châu Âu năm 2004 sau cái chết gay gắt của ứng viên hàng đầu António de Sousa Franco. Vào ngày 20 tháng 7 năm 2004, ông được bầu làm một trong 14 vị Phó Chủ tịch Quốc hội Châu Âu. Ông cũng phục vụ trong Ủy ban Tự do Dân sự, Công lý và Nội vụ.

Costa từ chức MEP vào ngày 11 tháng 3 năm 2005 để trở thành Bộ trưởng Bộ Ngoại giao và Chính quyền của chính phủ José Sócrates sau cuộc bầu cử năm 2005.